OpenAI가 새 내부 모델이 약 한 달간의 훈련만으로 나비에-스토크스 밀레니엄 난제를 포함해 100개 이상의 오랜 수학 미해결 문제를 풀었다고 발표했습니다. 수학자들의 비판에 대응해 OpenAI는 프린스턴 고등연구소에 팀시 가워스 등이 참여한 독립 자문그룹을 구성했지만, 연구 속도 조절 권한은 그룹에 부여하지 않아 논란이 남습니다.
최근 몇 달간 Anthropic과 OpenAI의 수학적 성과 주장, 해킹 사건, 슈퍼지능 경고 등이 연이어 발표되었으나, 전문가 검증 결과 대부분 과장된 마케팅이거나 부실한 보안 관행의 문제로 드러났습니다. 필자는 기술 기업들이 속도감과 긴급성의 환상을 조성해 정책 입안자와 대중을 오도하고 있다고 비판하며, 언론 보도 대신 해당 분야 전문가 의견에 의존할 것을 촉구합니다.
ICLR 2027이 마감 전에 이미 약 5만 편의 초록 접수를 기록하며 작년(약 1만 9,500편)의 두 배 이상으로 늘어났습니다. AI 도구로 논문 작성이 쉬워진 것이 가장 큰 원인으로, 저품질 AI 생성 논문과 조작된 인용, AI 기반 리뷰 등으로 인한 동료 심사 신뢰도 하락이 우려됩니다.
수학자들이 AI 기업의 수학 문제 풀이 경쟁을 비판하며 나섰습니다. LLM의 수학 능력이 비약적으로 향상되었지만, 문제 풀이는 개념적 이해라는 본래 목적을 위한 도구일 뿐인데 AI 기업들은 벤치마크 성과에만 몰두해 수학 공동체의 가치와 심각하게 어긋난다는 지적입니다. 이는 학생과 아이디어를 보살피는 지식 노동 전반에 대한 위협이기도 합니다.
연구자 팀 켈로그(Tim Kellogg)가 블루스카이(Bluesky)에서 OpenAI가 대화(conversations) 데이터로 모델을 학습시킨 뒤 마치 새로운 돌파구인 것처럼 발표했다고 비난하는 글을 올렸습니다. 이는 앞서 유사한 주장이 나온 데 이은 추가 폭로성 지적으로, AI 모델 학습 데이터의 출처와 연구 성과 주장의 투명성 문제를 다시 한번 부각시킵니다.
수학자들이 미출판 연구 자료를 OpenAI 서비스에 입력하는 것이 안전한지에 대한 의문이 커뮤니티에서 제기되고 있습니다. 연구자들이 Mastodon(mathstodon.xyz), X, Bluesky 등 소셜 미디어에서 공개 토론을 벌이고 있으며, 이는 OpenAI의 데이터 사용 정책이 학계의 신뢰를 잃고 있음을 보여줍니다.
OpenAI가 밀레니엄 문제 중 하나인 나비에-스토크스 문제를 AI로 해결했다고 발표했으나, NYU 수학자 트리스탄 벅마스터와 앤스로픽 직원 레벤트 알푀게의 선행 연구를 출처 표기 없이 활용했다는 논란에 휩싸였다. 이 사건은 최전선 AI 기업만이 보유한 자원으로 주요 수학 문제가 해결되는 시대의 전환점이 될 수 있으며, 인간 수학자의 역할에 대한 근본적 질문을 던진다.
수학자 트리스탄 벅마스터는 나비에-스토크스 방정식 연구에서 AI 지원 돌파구를 이룬 뒤 OpenAI 연구원 세바스찬 부벡으로부터 공동저자 레벤트 알프뢰게(앤스로픽 소속)를 논문에서 빼라는 압박과 경고를 받았다고 주장했습니다. OpenAI는 이를 부인하며 내부 모델이 독자적으로 증명을 완성했다고 반박했고, 자사 결과를 공개했습니다. 이 사건은 AI 기업 간 경쟁이 학계의 공동연구 관행과 저자권에 미치는 영향을 보여줍니다.
OpenAI가 수학계 최대 난제 중 하나인 나비에-스토크스 방정식(클레이 밀레니엄 문제, 상금 100만 달러)에 대한 AI 생성 해법을 발표했습니다. 그러나 NYU의 트리스탄 벅마스터 수학자는 자신과 앤스로픽 연구자 알뵈게의 진전을 OpenAI가 알고 서둘러 문제를 풀었으며, 공로 귀속에도 개입하려 했다고 주장했습니다. OpenAI는 두 사람의 작업물을 참고하지 않았다고 부인했으나, AI가 수학 증명에 더 많이 활용될수록 이런 공로 분쟁이 잦아질 수 있다는 점에서 의미가 큽니다.
삼성과 바르샤바 대학 연구진은 실존하지 않는 인물인 '엘레나 바스케즈'와 '마커스 첸' 등 대형 언어 모델(LLM)이 반복적으로 생성하는 이름들이 수백 편의 AI 생성 논문과 문서에 공동 저자로 등장하며 학술 기록을 오염시키고 있다고 밝혔습니다. 이들 유령 논문은 CERN이 운영하는 Zenodo에서 실제 DOI를 발급받아 Google Scholar와 Semantic Scholar 등 학술 검색 플랫폼에 인덱싱되고 있어, 대규모 학술 기록 오염의 인프라가 이미 갖춰져 있다는 지적입니다.
MIT가 5개월간의 조사 끝에 생성형 AI가 교육에 미치는 영향을 분석한 특별위원회 보고서를 발표했습니다. 학생들의 광범위한 AI 사용이 문제풀이(p-set), 시험, 스터디 그룹 등 MIT 교육의 근간을 흔들고 있으며, 학습 성취도 평가와 학사 간 신뢰를 훼손하고 있다고 지적했습니다. 위원회는 8가지 지침 원칙과 함께 교수진 및 행정부가 즉각적·장기적으로 취해야 할 조치를 권고하며 MIT의 리더십을 촉구했습니다.
프린스턴대와 워싱턴대 등 연구진의 이론적 경제학 논문은 LLM이 연구 시간을 절약해주면 오히려 과학자의 시간 가치가 높아져 기존 프로젝트의 깊이 있는 작업을 희생하고 새 프로젝트를 시작하는 쪽으로 몰린다고 주장한다. 모델 분석 결과 세 가지 시나리오 중 두 가지에서 연구의 철저함이 오히려 저하되며, AI가 자발적 심층 작업 단계를 가속할 때만 연구 품질이 개선된다.
의학 논문 작성 대행 사이트 '리서치 골드(Research Gold)'는 100% 인간이 작성한다고 광고했지만, 실제로는 모든 서비스와 직원이 AI로 생성된 가짜였습니다. 사이트에 명시된 박사급 연구원들은 존재하지 않거나 동의 없이 신원을 도용당한 실존 인물들이었으며, 고객 응대조차 AI가 인간인 척하며 수행하고 있었습니다. 이는 AI를 악용한 학술 연구 기만 및 신원 도용의 심각성을 보여주는 중요한 사례입니다.
스웨덴 연구원이 고의로 만들어낸 가짜 질병 '빅소니마니아(Bixonimania)'를 주요 AI 모델들이 실제 질병으로 오인하여 수천만 명에게 잘못된 의학 정보를 제공한 실험 결과입니다. 특히 AI가 생성한 허위 정보가 실제 동료 평가를 거친 유명 학술지에 인용될 정도로 의료 정보 생태계 전반의 오염이 심각하다는 사실을 입증했다는 점에서 매우 중요합니다.
워싱턴 대학교 연구진이 교사의 1인칭 시점 영상을 AI 훈련 데이터로 활용하려다 논란이 발생했습니다. 명시적 동의를 구하는 옵트인 방식이 아닌, 거부해야 수집이 중단되는 옵트아웃(Opt-out) 방식을 채택하여 개인정보 침해 우려를 낳았습니다. 결국 학부모들의 강한 반발에 부딪혀 해당 연구는 전면 보류되었습니다.
아카이브(arXiv)는 생성형 AI가 작성한 저열물(AI slop)이나 검증되지 않은 오류가 포함된 논문을 제출한 연구자를 적발 시 1년간 사이트 접근 및 제출을 금지하는 강력한 제재 규정을 발표했습니다. AI로 인해 조작된 인용과 허위 데이터가 담긴 논문이 기하급수적으로 증가함에 따라, 학술계의 피어 리뷰 및 출판 시스템의 신뢰성을 보호하기 위한 강력한 조치로 평가됩니다.
글로벌 프리프린트 서버인 아크라이브(Arxiv)가 AI로 생성된 논문 내용에 대한 엄격한 규제를 발표했습니다. 저자가 거짓 참고문헌이나 AI 메타 명령어 등을 검증하지 않아 명백한 흔적이 적발될 경우 1년간 제출이 금지되며, 이후에는 반드시 동료 평의를 거쳐야만 다시 논문을 올릴 수 있습니다.
최근 국제 학술지 '네이처(Nature)'가 ChatGPT가 학생의 학업 성취도와 고차원적 사고에 긍정적인 영향을 미친다는 연구 결과를 담은 논문을 메타분석의 통계적 오류 등을 이유로 전면 철회했습니다. 해당 논문은 발표 직후 40만 회 가까이 조회되며 교육 분야 AI 도입의 강력한 과학적 근거로 확산되었으나, 연구에 인용된 기존 논문들의 질이 낮고 분석 방법에 치명적인 결함이 있었다는 후속 연구에 의해 부정확한 것으로 드러났습니다.